跳到主要内容

Lambda Sim 与 RoboEvolve 集成

Lambda Sim 是仿真与渲染后端,RoboEvolve 是面向具身智能任务的数据采集、策略训练和仿真评测平台。RoboEvolve 调用 Lambda Sim 导入场景、准备状态和生成观测,再负责任务编排、数据采集、策略训练和结果评测。

RoboTwin 提供机器人任务、物体资产和专家示范数据等任务基础。RoboEvolve 编排 RoboTwin 任务,Lambda Sim 负责场景导入、状态准备和观测生成。

组件职责​

组件主要职责与 Lambda Sim 的关系
Lambda Sim导入 USD 场景,组织场景状态,生成渲染结果或回放结果。提供仿真和渲染能力。
RoboTwin提供机器人任务、物体资产和专家示范数据。提供任务和数据输入。
RoboEvolve编排任务,管理数据采集、策略训练和仿真评测。调用 Lambda Sim 后端。
Policy Server加载策略 checkpoint 并提供推理服务。接收 Lambda Sim 生成的观测,并返回策略动作。
Eval Client驱动场景、发送策略请求和收集评测结果。连接 Lambda Sim、策略服务和评测流程。
策略训练流水线处理采集数据并生成策略 checkpoint。使用 Lambda Sim 产生的数据或观测。
Isaac Sim可选的其他仿真后端。不属于 Lambda Sim 的组成模块。

Lambda Sim 在集成中的功能​

Lambda Sim 在上层任务流程中提供以下功能:

  1. 场景导入:读取 USD、USDA 或 USDC 场景,解析场景层级、几何、材质、相机和灯光。
  2. 场景组织:使用 Scene 或 Builder 组织 body、shape、joint、articulation 和环境数量。
  3. 状态准备:调用 finalize() 生成 Model、SimData 和 RenderScene,为运行时访问和渲染准备对象。
  4. 状态回放:使用 USD 时间码更新已经写入的刚体、软体或相机状态。
  5. 观测生成:从有效相机和灯光生成图像帧、多相机图像序列或视频输入。
  6. 后端连接:将场景状态和观测交给上层任务、数据采集和评测流程。

Lambda Sim 负责仿真场景和观测,不负责任务编排、策略训练、策略推理服务或最终成功率统计。上层流程通过接口调用 Lambda Sim,并根据返回的观测和状态继续执行任务。

数据流和调用关系​

阶段上层流程Lambda Sim产生的结果
任务准备RoboTwin 提供任务、机器人和物体配置。读取对应 USD 场景和资产。可运行的场景结构。
场景初始化RoboEvolve 传入任务参数和环境配置。导入场景并创建 Model、SimData 和 RenderScene。可供任务使用的运行时对象。
数据采集RoboEvolve 驱动专家示范或任务回合。根据场景状态生成图像和其他观测。专家示范、场景信息和视频等数据。
策略训练训练流水线处理采集数据。不直接执行策略训练。策略 checkpoint。
策略评测Policy Server 提供推理,Eval Client 驱动任务。按评测任务生成仿真观测并接收状态更新。成功率、结果文件和视频。
结果迭代RoboEvolve 根据评测结果调整任务或训练配置。使用更新后的场景和配置重新生成观测。下一轮数据和评测结果。

使用闭环​

使用 Lambda Sim 和 RoboEvolve 时,可以按以下阶段形成闭环:

  1. 导入场景:读取 USD Stage,检查场景层级、几何、材质、相机和灯光。
  2. 配置场景:使用 Scene 或 Builder 调整场景结构和环境数量。
  3. 生成状态和观测:完成 finalize() 后创建运行时对象,再按时间码回放或生成图像。
  4. 执行任务和采集数据:RoboEvolve 编排 RoboTwin 任务,使用 Lambda Sim 生成仿真观测。
  5. 训练和评测策略:训练流水线生成 checkpoint,Policy Server 和 Eval Client 调用 Lambda Sim 完成评测。
  6. 迭代配置:根据评测结果调整任务、场景、数据或训练配置,再次运行流程。

Lambda Sim 仿真开发闭环

RoboTwin 与 RoboEvolve 平台全流程

进入完整操作流程​

需要执行容器准备、环境配置、smoke test、专家示范采集、训练数据处理、策略训练和评测时,请按照 RoboEvolve 快速开始 的步骤执行。

需要查看 Lambda Sim 的模块、函数、参数和使用约束时,请打开 API 参考。